Đại Nam Thực Lục viết:

Lê Duy Kỳ khởi binh ở Cao Bằng. Duy Kỳ là em vua Lê. Vua Lê sang nước Thanh, Duy Kỳ chạy ra Cao Bằng. Cựu thần nhà Lê là Nguyễn Đình Lượng giận giặc cướp ngôi, đem quân rước về, liên kết với những tù trưởng Man ở Tuyên Quang, Hưng Hóa, cử binh đánh giặc. Đô đốc giặc là Nguyễn Văn Uyển đem 5.000 tinh binh theo đường Thái Nguyên đến đánh đuổi, bèn tan. (ĐNTL - Tập 1 trang 259)

Cương Mục viết:

Khi giặc Tây Sơn đánh phá Thăng Long, Duy Chi chạy đi Định Châu, cùng với phiên thần là Ma Thế Cố thu lượm và tụ tập dân chúng trong châu, đắp lũy để phòng thủ. Duy Chi lại ước hẹn kết hợp với các phiên mục ở Tuyên Quang và Bảo Lạc, dần dần chiêu mộ quân lính thượng du vùng Thái Nguyên để tăng cường thêm thế lực. Tướng giặc là Uyển (không rõ họ) đến đánh nhưng không hạ được, rồi phải rút quân về. (Cương Mục trang 990)